Đế quốc Rôma đạt đến cực điểm về quy mô lãnh thổ trong thế kỉ thứ 2; hai thế kỉ sau đó chứng kiến sự suy giảm từ từ năng lực kiểm soát của Rôma đối với các vùng thuộc địa xa xôi.[17] Các vấn đề kinh tế, nhất là lạm phát, và các áp lực bên ngoài từ các miền biên giới kết hợp lại khiến cho thế kỉ thứ 3 đầy bất ổn chính trị, với các hoàng đế đoạt được ngai vàng chỉ để bị thay thế nhanh chóng bởi những kẻ thoán ngôi mới.[18] Phí tổn quân sự tăng không ngừng trong thế kỉ thứ 3, chủ yếu dành cho cuộc chiến với đế quốc Sassanid mới phục hưng ở Ba Tư.[19] Quân đội tăng gấp đôi quân số, và kỵ binh cùng các đơn vị nhỏ hơn thay thế legion làm các đơn vị chiến thuật chính.[20] Nhu cầu thu ngân sách dẫn đến việc tăng thuế và suy yếu tầng lớp địa chủ, những người kém bằng lòng đảm trách các cơ quan hành chính địa phương hơn.[19] Cần thêm nhiều viên chức ở chính quyền trung ương để giải quyết nhu cầu của quân đội, dẫn đến sự phàn nàn từ công dân rằng trong đế quốc có nhiều kẻ thu thuế hơn là người đóng thuế.[20]

Hoàng đế Diocletianus (cai trị 284-305) quyết định chia đế chế thành hai thể chế hành chính miền đông và miền tây năm 286; tuy nhiên Rôma không được xem là bị chia cắt bởi dân cư hay những nhà cai trị của nó, bởi những luật pháp và sắc lệnh ban hành ở một miền này cũng có hiệu lực ở miền kia.[21][chú thích 4] Năm 330, sau một giai đoạn nội chiến, Constantinus Đại đế (cai trị 306-337) tái lập thành phố Byzantium thành kinh đô phương đông, đổi tên thành Constantinopolis (hay Constantinople).[22] Những cuộc cải cách của Diolectian đã củng cố bộ máy quan liêu chính phủ, đổi mới chính sách thuế, và tăng cường quân đội, cho đế chế thêm thời gian cầm cự nhưng không tận gốc giải quyết những vấn đề nó đang đối mặt: thuế khóa quá mức, tỉ lệ sinh trong dân số giảm dần, sức ép từ các biên giới, và những vấn đề khác.[23] Nội chiến giữa các hoàng đế đối địch trở nên phổ biến từ giữa thế kỉ 4, khiến cho quân lính xao lãng biên giới và cho phép các man tộc xâm lấn.[24] Trong phần lớn thế kỉ 3, xã hội Rôma ổn định trong một hình thức mới khác với thời kì cổ điển (Rôma trước thời quân chủ), với một khoảng cách giàu nghèo rộng thêm, và một sự suy yếu trong sức sống của các thị trấn tỉnh lẻ.[25] Một sự thay đổi khác là "Kitô hóa", hay sự cải đạo diễn ra trên toàn đế chế sang Kitô giáo, một quá trình từ từ xảy ra từ thế kỉ 2 tới thế kỉ 5.[26][27]

Năm 376, người Ostrogoth, trốn chạy khỏi người Hung, được hoàng đế Valens (cai trị 364-378) cho phép định cư tại tỉnh Thracia ở Balkan. Sự định cư này không diễn ra không êm ả, và khi những viên chức không giải quyết tốt tình huống, người Ostrogoth bắt đầu cướp bóc và tàn phá[chú thích 5] Valens, người tìm cách dẹp tắt sự hỗn loạn, đã bị giết trong khi đánh nhau với người Ostrogoth tại trận Hadrianopolis ngày 9 tháng 8 năm 378.[29] Không kém gì những liên minh bộ tộc như vậy từ phương bắc, các chia rẽ nội bộ trong lòng đế chế, đặc biệt là bên trong giáo hội Kitô, cũng gây nên nhiều vấn đề.[30] Năm 400, người Visigoth xâm lược đế quốc Tây Rôma, và tuy bị đẩy lùi khỏi Ý trong một thời gian ngắn, năm 410 dưới sự lãnh đạo của Alaric I họ đã cướp thành Rôma.[chú thích 6] Năm 406 người Halani, người Vandal và người Suevi băng qua xứ Gallia; trong ba năm sau đó họ đã lan khắp xứ này và từ 409 tràn qua Pyrénées vào miền Iberia.[32] Cái gọi là "Thời đại Di cư" bắt đầu, khi nhiều dân tộc khác nhau, ban đầu chủ yếu là các dân tộc German di chuyển khắp châu Âu. Người Frank, người Alemanni, người Burgundy đều dừng chân ở bắc Gallia trong khi người Angles, người Sachsen, người Juti định cư tại quần đảo Anh.[33] Vào những năm 430 người Hung bắt đầu xâm lược đế chế; vua của họ là Attila (cai trị 434-453) lãnh đạo các cuộc xâm lược Balkan năm 442 và 447, Gallia năm 451, và Ý năm 452.[34] Chỉ đến khi Attila chết vào năm 453, liên minh Hung tan rã thì người Hung mới thôi là mối đe dọa cho đế chế.[35] Những cuộc xâm lược từ các bộ lạc này đã thay đổi hoàn toàn bản chất chính trị và dân cư của thứ từng là Đế quốc Tây Rôma.[33]

Đến nửa cuối thế kỷ thứ 5 miền tây của đế chế bị chia ra thành các đơn vị chính trị khác nhau, cai trị bởi các bộ lạc đã xâm lược chúng trong nửa đầu thế kỷ.[36] Việc hoàng đế cuối cùng của phương tây, Romulus Augustus, bị phế truất năm 476 thường được xem là đánh dấu sự chấm dứt của đế quốc Tây Rôma.[10][chú thích 7] Đế quốc Đông Rôma, kể từ sau đó thường được gọi là Đế quốc Byzantine, không có mấy khả năng để khẳng định quyền cai trị trên những phần lãnh thổ phía tây bị mất. Các hoàng đế Byzantine vẫn giữ tuyên bố chúng thuộc về chủ quyền của mình, tuy nhiên dù không một vị vua nào ở phương Tây dám tuyên bố nâng mình lên làm hoàng đế ở phương Tây, Byzantine cũng không có cách nào xác lập lại sự thống trị; cuộc tái chinh phục bán đảo Ý và miền phụ cận Địa Trung Hải của Justinianus I (cai trị 527-565) là một ngoại lệ ngắn ngủi duy nhất.[37]